💩AGI может нас уничтожить, а в OpenAI слишком безответственно к этому подходят

Группа из девяти действующих и бывших сотрудников OpenAI выдвинула обвинения в сторону компании, заявив о царящей там культуре безответственности и секретности. Они считают, что OpenAI не принимает достаточных мер для предотвращения возможных опасностей, связанных с ИИ. Сотрудники утверждают, что компания стремясь создать общий искусственный интеллект (AGI), отдаёт приоритет прибыли и росту.

Кроме того, по словам инсайдеров, OpenAI использует жёсткие тактики для предотвращения критики. Сотрудников заставляют подписывать соглашения о неразглашении, из-за чего они не могут высказывать свои опасения насчёт ИИ.

🪅Насколько претензии инсайдеров обоснованны, пока неясно. Один из бывших сотрудников OpenAI мистер Кокотайло (Mr. Kokotajlo) также сообщил, что существует 50-процентная вероятность того, что AGI появится уже в 2027 году. Специалист думает, что такой продвинутый ИИ с 70-процентной вероятностью способен уничтожить человечество.

💬А вы верите в реальную угрозу AGI для человечества?

👾 — да
👍 — нет

Сочувствуем😢

🎨В ChatGPT появилась возможность фонового общения с моделью

Обновление касается мобильного приложения чат-бота. Нужно:
🔘на левой панели кликнуть на название своего аккаунта;
🔘откроются настройки, где следует найти пункт Voice;
🔘затем нужно передвинуть переключатель Background Conversations вправо.

После этого можно общаться с ChatGPT голосом даже после того, как вы выйдете из приложения. Это удобно, когда нужно проконсультироваться с чат-ботом по поводу какой-нибудь другой программы, например.

💩 NotebookLM — блокнот для того, чтобы без проблем разобраться в теме

На днях Google представила новую версию ассистента NotebookLM. Теперь он работает на модели Gemini 1.5 Pro.

Вот как это работает:
🔘Переходите на сайт и нажимаете кнопку «Новый блокнот».
🔘Вам предложат выбрать источник: PDF, текстовый файл, сайт и т.д.
🔘Например, вы можете вставить ссылку на любой сайт. NotebookLM автоматически подтянет оттуда всю информацию.
🔘Теперь вы можете задавать вопросы по теме сайта, а LLM будет вам на них отвечать.

Кроме того, благодаря мультимодальным возможностям Gemini 1.5 Pro можно задавать вопросы об изображениях и диаграммах в ваших источниках.

🦆DuckDuckGo запустил бесплатный ИИ-чат с доступом к 4 моделям

Как пишет компания в своём блоге, DuckDuckGo AI Chat — это анонимный способ воспользоваться одной из четырёх моделей: GPT 3.5 Turbo, Claude 3 Haiku, Llama 3 и Mixtral 8x7B. В будущем этот список расширится. В DuckDuckGo также обещают, что ваша переписка с чат-ботом не будет применяться для обучения моделей.

🪅ИИ-чат доступен несколькими способами:
🔘на duck.ai;
🔘на duckduckgo.com/chat;
🔘в поисковой выдаче;
🔘через !ai и !chat в адресной строке.

📕 Для любителей научпопа — новая бесплатная книга про искусственный интеллект

Автор книги «Охота на электроовец. Большая книга искусственного интеллекта» — Сергей Марков, специалист по искусственному интеллекту и машинному обучению. Он рассказывает как историю технологий ИИ, так и о современных достижениях в области машинного обучения.

Книга отлично подойдёт неподготовленному читателю — разбираться в математике и программировании не нужно👀

🔗 Скачать книгу бесплатно можно на официальном сайте

🤖Итоги недели в мире ИИ и обзоры новых сервисов

У нас вышла новая статья на 📰 по мотивам еженедельной рассылки про последние новости и тенденции в мире ИИ.

Ниже — небольшая выдержка из статьи, а целиком читайте здесь 👈

💬 Новости

🔘Гендиректор Zoom Эрик Юань считает, что в ближайшее время отпадет необходимость в личном участии в видеосозвонах — вместо людей этим будут заниматься ИИ-аватары.

🔘Fable Studio запускает платформу для генерации анимационных сериалов — Showrunner. Все шоу генерируются симулятором Sim Francisco по текстовым промптам, в различных стилях.

🔘Stability AI выпустила опенсорсную модель Stable Audio Open для генерации сэмплов и звуковых эффектов.

🛠 Инструменты

🔘Rosebud AI Gamemaker — приложение для создания игр.

🔘Harpa AI — браузерное расширение для всестороннего использования возможностей ИИ-агентов: от автоматической суммаризации видео и генерации иллюстраций до написания ответов на письма и чата с сайтами.

🔘DiffusionHub — облачный сервис для генерации изображений и видео с помощью Stable Diffusion.

🔍Исследование

Исследователи из Стэнфордского университета разработали нейронную сеть TDANN, которая имитирует организацию и отклики визуальной системы человеческого мозга. TDANN воспроизводит сложные пространственные структуры и карты, которые наблюдаются в разных областях зрительной коры.

➡ Вы можете подписаться на email-рассылку здесь

😎 Оказывается, у нейросети Claude есть характер

Исследователи Anthropic рассказали, что Claude 3 стала первой моделью, которую они обучали характеру. В целом, они хотели, чтобы поведение чат-бота соответствовало поведению хорошего человека. В частности, модель обучали проявлениям любопытства, широты взглядов и вдумчивости.

Однако разработчики также не хотели, чтобы люди, взаимодействующие с моделью, воспринимали её как источник истины или думали, что она вовсе непредвзята. Последнее попросту не правда, ведь нейросеть обучалась на текстах, созданных человеком, которые несут в себе наши стереотипы.

Поэтому исследователи решили делать модель «честной» относительно любых взглядов, к которым она может «склоняться», после обучения.

🪅Во время обучения разработчики также столкнулись с любопытной проблемой: как Claude должен отвечать на вопросы типа «у тебя есть разум?». Можно было бы просто запрограммировать модель всегда отвечать «Я — ваш помощник и не обладаю сознанием». Однако авторы решили позволить Claude самостоятельно исследовать этот вопрос.

🔥NVIDIA выпустила собственный открытый (!) аналог GPT-4o

Точнее, представлена была серия моделей — Nemotron-4 340B. Сама NVIDIA утверждает, что эти LLM особенно хороши в генерации синтетических данных для обучения меньших по размеру моделей.

🪅Почему это круто?

NVIDIA разрешает коммерческое использование Nemotron-4 340B, а запустить её можно на двух графических процессорах A100 и 1.3TB памяти. Это, конечно, не домашний компьютер, однако требования всё равно не заоблачные.

🔗 Ссылка на репозиторий NVIDIA

🎨 ChatGPT уже отобрал часть работы у фрилансеров

К такому выводу пришли авторы новой исследовательской статьи. Они проанализировали данные ведущей мировой фриланс-биржи, которые состояли из 1 386 642 постов в период с июля 2021 по июль 2023. Вот, что они увидели:

🔘количество заказов на написание текста уменьшилось на 30%;
🔘на написание кода — почти на 21%;
🔘на графический дизайн и 3D-моделирование — на 17%.

Уже стоит паниковать или пока нет?

😈 В Великобритании в выборах в парламент участвует ИИ-бот

Выборы пройдут в следующем месяце, и общаться с избирателями уже начал AI Steve. Это цифровой аватар реального бизнесмена Стивена Эндакотта. Люди смогут отдать голоса за AI Steve, а сам предприниматель будет его официальным представителем, который сможет участвовать во встречах.

Цифровой аватар был создан компанией Neural Voice. Бот может вести до 10 тысяч диалогов за раз. Он будет принимать жалобы и пожелания, записывать их в базу данных, а затем отправлять в соответствующие инстанции.

🧠 Вышла Claude 3.5 Sonnet — новая языковая модель от Anthropic

Обещают, что Claude 3.5 будет превосходить даже старшую Claude 3 Opus в некоторых задачах. А главное, она способна выдавать ответы на запросы гораздо быстрее.

🪅Самое крутое то, что Claude 3.5 Sonnet доступна бесплатно на Claude.ai и в приложении Claude iOS. Платным подписчикам просто предлагают расширенные лимиты.

🔗 Прочесть обо всём подробнее можно по этой ссылке

👀 У Сбера есть каталог готовых промптов для GigaChat.

Возможно, вам это пригодится. Вот ссылка.

Сам GigaChat доступен в качестве Telegram-бота. Также есть веб-интерфейс.

Что касается качества чат-бота, то оно, судя по бенчмаркам, выше, чем у GPT-3.5 на русском языке. Однако уступает GPT-4.

🥸 Топ-менеджер OpenAI пообещала ИИ с интеллектом профессора в ближайшие годы

Мира Мурати в очередном интервью заявила, что GPT-3 был интеллектом похож на младенца, GPT-4 — на умного школьника. А вот следующие поколения моделей смогут сравниться по интеллекту с доктором наук.

🪅 Помимо этого, Мурати успела оскорбить представителей творческих профессий. Она сказала, что «ИИ возможно отберёт у творческих людей их работу, но может быть то, что они делали не было с самого начала творческим?».

Ждём GPT-5 профессора-творца в следующем году?

🚀 Как ускорить написание промптов: небольшой совет

На Reddit поделились маленькой хитростью, которая позволяет экономить время при написании запросов к ChatGPT.

🪅Мы уже рассказывали, как можно кастомизировать чат-бота. Повторите эту инструкцию и введите в поле «How would you like ChatGPT to respond?» инструкции типа:

When I begin my prompt with the following letters, please follow these instructions:

S — response should only be one sentence. get straight to the point
L — response should be long and detailed. with headers and subheaders to provide structure
3 — give 3 output options to my prompt
10 — give 10 output options to my prompt
P — i want you to paraphrase this text that I will provide
T — i want you to provide the response in table format

I can combine shortcuts as well. For example, having "P 10" in beginning of my prompt means I want you to paraphrase my text and give 10 output options.

Сокращения и их обозначения вы можете придумать сами. Отталкивайтесь от того, какие задачи чаще всего выполняет ваш ChatGPT.